Cửa ải Sơn Hải quan là một hình vuông, với chu vi khoảng 4 km. Các bức tường cao đến 14 mét, và dày 7 mét. Các mặt phía đông, nam và bắc có một hào sâu và rộng bao quanh. Có các cầu bắc qua hào. Ở trung tâm của cửa ải có một tháp chuông cao.

Tất cả bốn mặt của Sơn Hải quan đều có cổng: Trấn Đông môn (đông), Nghênh Ân môn (tây), Vọng Dương môn (nam), và Uy Viễn môn (bắc). Do trải qua nhiều thế kỷ, chỉ Trấn Đông môn còn lại cho đến ngày nay. Trấn Đông môn là cửa quan trọng nhất của Sơn Hải quan do vị trí đối mặt với phía ngoài cửa ải.

Viết trên một tấm bảng treo trên cổng thành là một tên thay thế của Sơn Hải quan, "Thiên hạ đệ nhất quan" (天下第一关). Không nên nhầm lẫn với "Thiên hạ đệ nhất hùng quan" (天下第一雄关), biệt danh của một cửa ải khác nằm ở cực tây của Vạn lý trường thành.